#Dynamic Programming

4 篇

TAO: Tool-Aware Joint Scheduling for LLM-Based Agentic Serving

TAO：面向LLM Agent服务的工具感知联合调度框架

🧭 Agent 服务调度优化

Shanghai Jiao Tong University · Stanford University

提出工具感知联合调度框架TAO，融合工具就绪度、缓存信用与token占用进行动态规划调度，显著降低延迟和TTFT

📌 工作参考价值（4 点）

在 LLM Agent 服务中，工具调用（如商品检索、数据库查询、API 调用）会使 GPU 推理可中断，调度时需将「工具返回就绪时间」纳入准入/放置决策，避免 GPU 空转和资源浪费。
借鉴 TAO 的 value interface：组合「近期工具就绪度 + 节点级缓存信用（时间衰减）+ token footprint」来评估一个 session 的调度价值，而不是只看队列长度或显存。
动态规划联合选择等待中的 sessions 并放置到 GPU 节点，在容量约束下最大化整体收益，比启发式 admission/placement 更优；可实现在线调度器，在 GPU 空闲或工具返回事件时触发。
如果推荐/搜索 Agent 涉及多步工具调用（如商品召回、属性查询、库存检查），可以对工具返回时间做预测或标记，并结合 prefix cache 命中（例如共享 system prompt 或工具 schema）优先调度相似 session 以提高 decode throughput。

Agent | 2026-10-26 | HF Daily | score 7/10

Available Guardrails: Certifying Selective Prediction across ML Systems

可用护栏：跨机器学习系统的选择性预测认证

🧭 安全门认证可用性计算与分区规划

Rivian and Volkswagen Group Technologies · Stony Brook University · Westlake University

将选择性预测认证可用性转化为可计算量，用动态规划优化分区，在安全、粒度和覆盖间达到权衡

📌 工作参考价值（4 点）

在电商/Agent 安全门（工具调用、自动拦截、推荐展示）中，按业务单元认证目标精度时，用精确二项反演快速判断每个单元是否有足够样本；对长尾单元提前规划数据采集或流量分配，避免无法认证。
借鉴动态规划分区：当需要按类目/用户层/策略标签认证时，合并相邻小流量单元形成分区，可在保持整体安全认证的同时最大化服务流量；用两个数据划分（规划/选择）减少过拟合。
错误预算重分配：不同业务单元风险容忍不同，非均匀分配家族错误预算可放松部分单元精度要求，提升整体覆盖率；在线上可对高频低风险单元采用较松门限。
注意人口机会与有限样本差距巨大（0.157 vs 0.005），认证流程设计不能只依赖朴素估计，需显式考虑样本量或采用稳健选择策略。

Eval | 2026-09-18 | cs.LG | score 6/10

Selective Prediction Certification Exact Binomial Dynamic Programming Calibration Deployment

Neural Spectral Capacity: Measuring and Designing Architectures from Network Specification Alone

神经谱容量：仅凭网络结构规范测量与设计架构

🧭 训练无关容量度量与架构设计剪枝

Department of Computer Science, City University of Hong Kong

提出基于权重矩阵奇异值谱的闭式容量指标 NSC，无需实例化/数据/梯度即可评估架构，并给出全局最优 DP 求解器

📌 工作参考价值（4 点）

在电商/广告/生成式推荐模型做结构选型时，可用 NSC 作为零成本过滤指标，在训练前快速比较同预算下不同 depth-width、FFN ratio、attention head、MoE expert 分配，替代小规模消融或昂贵搜索。
对 LLM 类召回/排序/Agent 策略模型做结构化剪枝或部署压缩时，NSC-DP 可在 CPU 秒级返回给定参数/延迟预算下全局最优的层与组件保留方案，无需 calibration data，比现有 training-free proxy 快约 5900 倍。
利用 NSC 的 layer-wise additive 性质，可在多域/多任务推荐模型或异构 MoE 中按塔、按 expert 精细核算容量，指导预算在 tower、shared bottom、task head 间分配。
注意 NSC 依赖随机初始化下的 Marchenko-Pastur 假设，适合做候选架构过滤和初始化分配；最终上线前仍需在业务数据上微调验证，避免把排名绝对化。

Training | 2026-09-18 | HF Daily | score 7/10

Neural Architecture Search Training-free Proxy Transformer Compression Random Matrix Theory LLM Pruning Dynamic Programming

When RAG Meets Query Planning: Logical Query Trees for Resolving Exploratory Reasoning Problems

当RAG遇上查询规划：用逻辑查询树解决探索性推理问题

🧭 复杂查询规划 · 逻辑查询树

School of Data Science, Fudan University · College of Computer Science and Artificial Intelligence, Fudan University · United Automotive Electronic Systems

将探索性推理问题建模为逻辑查询树，通过动态规划与成本模型优化多步检索与推理

📌 工作参考价值（4 点）

电商搜索中，用户意图模糊的复杂查询（如“适合敏感肌的平价抗老面霜”）可借鉴PlanRAG的分解与重组逻辑：将原始查询拆分为原子子查询（如“敏感肌适用”、“抗老”、“平价”），通过成本模型决定检索顺序与合并方式，减少无效检索。
成本模型的多维评估（如相关性、覆盖度、语义连贯性）可直接迁移到推荐系统的多路召回融合阶段，替代简单加权，动态规划出最优融合计划。
树状执行结构与并行节点处理机制适用于Agent工作流：不同子任务可并行检索知识库，再逐步聚合生成最终答案，低延迟场景下可开启多线程加速。
动态改写中间结果（rewriting）的思路可用于对话式推荐：对中间检索到的商品列表进行总结与再查询，逐步精炼用户需求。

RAG | 2026-07-01 | cs.IR | score 6/10

RAG Query Planning Logical Query Trees Exploratory Reasoning Cost Model Dynamic Programming